Muzik klasik al-Andalus atau Iberia dikatakan bermula dalam wilayah Cordoba di Al-Andalus dalam abad kesembilan. Ahli muzik Parsi, Ziryab yang bermastautin di Iraq, yang kemudiannya menjadi ahli muzik istana Abdul Rahman II di Cordoba, kadang kala juga dikatakan sebagai pencipta muzik jenis ini. Kemudian, penyair, penggubah dan ahli falsafah Ibn Bajjah (meninggal 1139 M) dari Saragossa dikatakan telah menggabungkan gaya Ziryab dengan pendekatan Barat dan melahirkan gaya baharu yang tersebar di merata Iberia dan Afrika Utara.

Dalam abad ke-11, Sepanyol dan Portugal Islam menjadi pusat pembuatan peralatan muzik. Alat-alat ini kemudiannya tersebar ke Provence, menpengaruhi troubadour Perancis dan akhirnya sampai di seluruh Eropah. Banyak nama peraltan muzik seperti lut, rebec dan gitar berasal daripada perkataan Arab oud dan rabab.

Muzik klasik al-Andalus, al-ala, sampai di Afrika Utara melalui pertukaran kebudayaan yang mengambil masa berkurun-kurun pada zaman pemerintahan dinasti al-Muwahhidun, dan Marin, dan kemudiannya dinasti Abdul Wadid di al-Andalus dan Afrika Utara, khususnya Maghribi [wilayah yang menjadi Maghribi moden].

Pemindahan beramai-ramai orang Islam dan Yahudi dari Cordoba, Seville, Valencia dan Grenada akibat Reconquista membantu mengembangkan muzik klasik al-Andalus.